Closing the Indexing-Decoding Gap in Multimodal Generative Retrieval via Prefix Retention Optimization
通过前缀保留优化弥合多模态生成检索的索引-解码鸿沟
🧭 多模态生成式检索 · 前缀保留优化 ★ 深度解读
Shandong University · CISPA Helmholtz Center for Information Security · University of Amsterdam · Leiden University
提出前缀保留优化框架，从排序蒸馏、词汇调度和几何融合三方面提升残差码本在束搜索中的前缀存活率
📌 工作参考价值（4 点）
- 前缀排序蒸馏：在RQ标识符学习时，引入listwise蒸馏损失，使量化后前缀概率分布与冻结编码器的原始分布对齐，减少索引-解码排名分歧。该方法可直接用于生成式推荐中的Semantic ID训练，提升束搜索解码时的目标保留。
- 词汇表调度：将残差量化各级codebook大小设计为递增（浅层小、深层大），降低束搜索早期大量非目标前缀的竞争，增大教师边际，提高目标前缀浅层存活率。在电商推荐粗粒度类目上可借鉴，减少不必要的早期剪枝。
- 几何分数融合：解码时，用查询与候选codeword的几何相似性（残差距离减少量）增强解码得分，无需重新训练即可改善解码器与量化分布的对齐。适用于线上实时推理，可直接集成到现有生成式检索/推荐系统中。
- 理论生存界限：将前缀存活分解为排名散度、教师边际和解码器不匹配三个可控量，提供了一种诊断工具，可迁移到其他RQ-based生成式系统，识别并优化瓶颈。